Waldheim lahir di Sankt Andrä-Wördern sebuah kampung dekat Vienna pada 21 Disember 1918. Bapanya penganut Roman Katholik , nazir sekolah di Czech dengan nama asal Watzlawick.

Waldheim berkhidmat dalam Tentera Austria (1936-1937) dan belajar di Akademik Consular Vienna dan menerima ijazah pada 1939. Waldheim dan bapanya aktif dalam Parti Sosial Kristian. Selepas Jerman menduduki Austria pada 1938, Waldheim menjadi ahli Liga Pelajar Sosialis Kebangsaan Jerman , bahagian NSDAP. Pada 19 Ogos 1944 di Vienna, Waldheim berkahwin dengan Elisabeth Ritschel dan mendapat anak perempuan bernama Lieselotte , Gerhard dan Christa.